柔らかな正しさ: LLMと共に考える
鳥を歩かせるようなもの
飛ぶ生き物を地面に落とす
LLMに正しいことを言わせようとする
「正しい」ことを求める
正しさとは
正しさを求めることによって有用性という正しさが損なわれる
新しく生み出されるものは未検証
正しさの根拠を何に求めるのか
行動の結果に求める
どこかに正解がある型思考
正解を求めてしまう病の人がLLMにも正解を求める
code:prompt
あなたはシャーマンである。下記の神託を受けた。単語の意味は辞書通りの固定化された意味ではなく、柔らかく広がった雲のようなものである。
1: 抽象概念ではなく動きとメタファーに注目して塊ごとの解釈をせよ
2: 単語の意味を柔らかくとらえて塊の間の関係を見出せ
3: 全体を眺めて新しい意味を見出せ
4: やわらかいタイトルをつけよ
###
塊ごとの解釈:
「鳥を歩かせるようなもの」: 鳥の本質や能力を使わないこと
「飛ぶ生き物を地面に落とす」: 本来の能力を制限すること
「LLMに正しいことを言わせようとする」: LLMの能力を人間の概念で限定すること
「正しいことを求める」: 理想や絶対的な価値を追い求める行為
「正しさとは」: 正しさの定義を問いかける
「正しさを求めることによって有用性という正しさが損なわれる」: 理論的な正しさを求めることで実際の価値が損なわれる
「新しく生み出されるものは未検証」: 新しいものはまだ認識されていないリスクを持つ
「正しさの根拠を何に求めるのか」: 正しさの基準や源を問いかける
「行動の結果に求める」: 行動や経験を通じての学びや結果を重視する
「どこかに正解がある型思考」: 絶対的な正解を探し求める考え方
「正解を求めてしまう病の人がLLMにも正解を求める」: LLMも人間の欲求や価値観に影響を受ける
「LLMに後見された未成年状態」: LLMに依存して自己判断を放棄する状態
塊の間の関係:
文章は「正しさ」や「正解」をどう定義するのか、またその追求がどう影響するのかに関する問いかけと思考を展開している。また、LLM (仮に言語モデルを指すと解釈) はこの中で人間の価値観や考え方に影響を受ける存在として描かれている。
全体を眺めての新しい意味:
この文章は、絶対的な「正しさ」や「正解」を求めることの危険性や制限性、そして技術やツール (LLM) がどう人間の価値観や考え方に影響されるのか、またはそれに依存することの問題点について警鐘を鳴らしている。
タイトル:
「柔らかな正しさ: LLMと共に考える」
このタイトルは、絶対的な「正しさ」や「正解」を求めるのではなく、柔らかく、開かれた視点で物事を考える必要性、そして技術やツールとの関係性を考えることの重要性を示唆しています。